Home » Știință » Un sistem de inteligență artificială și-a creat propriul limbaj secret, a dezvăluit un cercetător

Un sistem de inteligență artificială și-a creat propriul limbaj secret, a dezvăluit un cercetător

Publicat: 09.06.2022

De cele mai multe ori, cercetătorii care folosesc învățare automată și inteligența artificială nu cunosc cu exactitate cum sunt folosiți algoritmii pentru a rezolva problemele. 

Să luăm spre exemplu inteligența artificială care poate identifica rasa umană doar uitându-se la radiografii, o abilitate care depășește capacitățile oamenilor, sau inteligența artificială inclusă din platformele de socializare care a început să-și dezvolte propriul limbaj, indică IFL Science.

Alăturarea acestora poate constitui generatorul preferat de text – imagine al tuturor, DALLE-2. Un specialist în știința computerelor, Giannis Daras, a observat că DALLE-2, care creează imagini bazate pe inserarea de text, ar returna cuvinte aleatorii sub formă de text în anumite circumstanțe.

Inteligența artificială dezvoltă propriul limbaj

„O limitare a acestui sistem, despre care se știe, este aceea că textul îi pune anumite probleme”, a scris acesta într-o lucrare publicată în Arxiv. „De exemplu, textele precum O imagine a cuvântului avion conduce cel mai adesea la generearea unei imagini care înfățișează un text lipsit de sens”.

„Am descoperit că aceste texte aparent ilogice nu sunt aleatorii, ci mai degrabă arată un vocabular ascuns pe care sistemul l-ar fi dezvoltat intern. De exemplu, când este alimentat cu acest tip de text, modelul generează frecvent avioane”.

Într-o ilustrare postată pe una dintre rețelele de socializare, se explică faptul că atunci când se cere subtitrarea unei conversații între doi fermieri, sistemul îi arată vorbind, dar casetele de text sunt umplute cu ceva care nu are nici cel mai mic sens.

DALLE-2 se chinuie cu textul

Cu toate acestea, Daras s-a gândit să pună înapoi în sistem aceste cuvinte lipsite de sens, pentru a vedea dacă inteligența artificială a alocat un sens propriu pentru acestea. Când a făcut acest lucru, a descoperit că acele cuvinte păreau să aibă propriul sens pentru IA: fermierii vorbeau despre legume și păsări.

Dacă Daras are dreptate, el consideră că acest lucru ar putea avea unele implicații de securitate pentru generatorul text-imagine. „Primul aspect de securitate este legat de folosirea acestor inserții aleatorii ca backdoor pentru atacatori”, a declarat acesta.

„În prezent, filtrele sistemelor de procesare naturală a limbajului care contravin politicilor de securitate pot fi folosite pentru a ocoli aceste filtre”.„Mai mult, stimulările absurde care generează în mod constant imagini ne testează încrederea în astfel de modele”.

Vă mai recomandăm și:

Rasa umană, prezisă de inteligența artificială pe baza radiografiilor. De ce îi neliniștește asta pe cercetători?

Ambuteiajele ar putea deveni doar o amintire, cu ajutorul semafoarelor cu Inteligență Artificială

Electrocardiograma cu inteligență artificială ar putea identifica pacienții cu risc crescut de AVC

Inteligența artificială care te judecă mai rău ca o soacră. De ce a fost creată?

Vlad Constantin Voinea
Vlad Constantin Voinea
Vlad a făcut parte din echipa site-ului Descoperă.ro între februarie și august 2022, fiind pasionat de subiecte asociate cu știința, tehnologia, istoria și geopolitica. Vlad este specializat în managementul crizelor si prevenirea conflictelor, fiind absolvent al Universității Naționale ... citește mai mult
Urmărește DESCOPERĂ.ro pe
Google News și Google Showcase
Cele mai noi articole
Omenirea a atins punctul fără de întoarcere pentru ghețarii lumii
Omenirea a atins punctul fără de întoarcere pentru ghețarii lumii
„Conspirații cu gen. Emil Străinu” începe joi, 5 iunie, de la 22:00, LIVE pe YouTube Cancan
„Conspirații cu gen. Emil Străinu” începe joi, 5 iunie, de la 22:00, LIVE pe YouTube Cancan
„Cel mai vechi selfie” din istorie ar putea fi o operă de artă neanderthaliană veche de 43.000 de ani
„Cel mai vechi selfie” din istorie ar putea fi o operă de artă neanderthaliană veche de 43.000 de ani
De ce este important să reciclăm bateriile și dispozitivele electronice
De ce este important să reciclăm bateriile și dispozitivele electronice
Așteptările, poveștile pe care le țesem între realitate și iluzie: Sunt acestea bune sau devastatoare pentru psihic?
Așteptările, poveștile pe care le țesem între realitate și iluzie: Sunt acestea bune sau devastatoare pentru psihic?
Fibra care ar putea avea beneficii pentru pierderea în greutate similare cu Ozempic
Fibra care ar putea avea beneficii pentru pierderea în greutate similare cu Ozempic
Cafeaua poate afecta tratamentele medicamentoase. Un farmacist explică de ce!
Cafeaua poate afecta tratamentele medicamentoase. Un farmacist explică de ce!
3 Idei de amenajare a grădinii în stil minimalist (P)
3 Idei de amenajare a grădinii în stil minimalist (P)
Test de cultură generală. Care este cel mai rece loc de pe Pământ?
Test de cultură generală. Care este cel mai rece loc de pe Pământ?
Secretele unui Interior Funcțional și Elegant: Ghid Practic (P)
Secretele unui Interior Funcțional și Elegant: Ghid Practic (P)
Omenirea ar putea atinge singularitatea în următoarele 6 luni
Omenirea ar putea atinge singularitatea în următoarele 6 luni
Un elefant sălbatic, vizitator neașteptat într-un magazin din Thailanda
Un elefant sălbatic, vizitator neașteptat într-un magazin din Thailanda
Un medicament care acționează ca un „cal troian” reduce cu 44% riscul de deces la cancerul de sân
Un medicament care acționează ca un „cal troian” reduce cu 44% riscul de deces la cancerul de sân
Un studiu arată că telefonul are un impact mai mare asupra psihicului decât lipsa de mișcare
Un studiu arată că telefonul are un impact mai mare asupra psihicului decât lipsa de mișcare
Astăzi se împlinesc 154 de ani de la naşterea unuia dintre cei mai prolifici istorici şi scriitori pe care i-a avut România vreodată
Astăzi se împlinesc 154 de ani de la naşterea unuia dintre cei mai prolifici istorici şi scriitori pe care i-a avut România ...
Elon Musk îi datorează președintelui SUA 100 de milioane de dolari
Elon Musk îi datorează președintelui SUA 100 de milioane de dolari
Cercetătorii anunță că Soarele începe o perioadă de activitate înaltă
Cercetătorii anunță că Soarele începe o perioadă de activitate înaltă
Vremea în prima lună de vară se anunță sufocantă și cu ploi puține
Vremea în prima lună de vară se anunță sufocantă și cu ploi puține